Nguyên thủy Phủ Đặc ủy chia thành hai phần: Nha Nghiên cứu và Nha Điều vụ. Nha Nghiên cứu lãnh phần kế hoạch và phân tích thông tin tình báo trong khi Nha Điều vụ là phần thi hành công tác thu thập và điệp vụ.[1]

Sau năm 1963 thì Phủ Đặc ủy được tổ chức lại và đến năm 1968 thì theo cơ chế mới, có Nha Kế hoạch Điều vụ (ban A). Ủy viên ban A cũng là người soạn báo cáo gửi lên tổng thống.

Ngoài ra là Nha Tình báo Quốc nội gồm các đơn vị: Điệp báo (ban K), Phản gián (ban U) và Chính trị (ban Z); Nha Tình báo Quốc ngoại; và Trung tâm Quốc gia Thẩm vấn (cơ quan này chỉ làm nhiệm vụ tiếp nhận các tù binh từ các quân khu đưa về thẩm tra). Trong vùng kiểm soát của Việt Nam Cộng hòa thì có bảy Đoàn công tác đặc biệt phân bố trên các vùng chiến thuật, trực thuộc Nha Tình báo Quốc nội. Mục đích chính của các đoàn này là thu thập thông tin và xâm nhập các tổ chức của lực lượng cộng sản. Họ hoạt động song song với các đơn vị của Quân lực Việt Nam Cộng hòa. Ở nước ngoài, có các biệt nha trực thuộc Nha Tình báo Quốc ngoại như ở Lào (2 đơn vị), Cao Miên, Thái Lan, Pháp, Nhật, và Hồng Kông.[1]